Năm 20 tuổi, ông được phong làm tướng và được Tiết độ sứ Phu Mông Linh Sát trọng dụng. Cuối niên hiệu Khai Nguyên (713-741) thời Đường Huyền Tông, ông được bổ nhiệm làm Phó đô hộ Tây An và Đô tri binh mã sứ 4 trấn.

Năm 741, bộ lạc Đạt Hề khởi binh chống triều đình. Đường Huyền Tông sai Tiết độ sứ Phu Mông Linh Sát đi đánh. Phu Mông Linh Sát sai Cao Tiên Chi mang 2000 quân ra cự. Quân Đạt Hề hành quân xa, mệt mỏi, chưa muốn giao chiến. Cao Tiên Chi chủ động ra quân đánh bại quân Đạt Hề.

Sang niên hiệu Thiên Bảo (742-756) thời Đường Huyền Tông, tộc Thổ Phiên gả con gái cho vua nước Tiểu Bột Luật, xúi giục nước Tiểu Bột Luật tấn công nhà Đường. Từ đó, tộc Thổ Phiên khống chế hơn 20 nước phía tây bắc nhà Đường. Nhà Đường ra quân nhiều lần đánh không thắng được.

Năm 747, Đường Huyền Tông giao cho Cao Tiên Chi làm Tiết độ sứ hành doanh, mang 1 vạn quân kỵ đi đánh Thổ Phiên. Tiên Chi dẫn quân vượt núi Bá Mật[3], tấn công hạ được đồn Liên Vân[4] của Thổ Phiên. Từ núi Việt Hưng Đô Khố Thập trên đỉnh Thản Câu[5], ông đánh thẳng xuống sườn núi, giành thắng lợi, thu lại hơn 40 dặm đất.

Tháng 8 năm đó, Cao Tiên Chi mở tấn công ồ ạt, quét sạch quân Tiểu Bột Luật khiến uy danh của ông vang khắp vùng phía tây[1]. Đường Huyền Tông xét công bèn phong ông làm Tiết độ sứ 4 trấn Tây An.

Năm 750, Cao Tiên Chi giả cách hòa hoãn với một quốc gia phía tây là nước Thạch[6]. Sau đó, nhân lúc họ không phòng bị, Cao Tiên Chi mở một cuộc tấn công bất ngờ, giành được thắng lợi. Ông thu lấy rất nhiều vàng bạc châu báu của họ khiến nhiều nước phía tây bất bình[7].

Năm 751, vương tử nước Thạch cầu cứu đế quốc Abbas-Ả Rập. Abbas mang quân giúp vương tử nước Thạch. Cao Tiên Chi đụng độ với quân Abbas tại thành Đát La[8] Quân chư hầu của Đại Đường là tộc Karluk (Cát La Lộc) phản lại Cao Tiên Chi. Cao Tiên Chi cùng lúc bị kẹp giữa hai gọng kìm, một bên là quân Abbas, một bên là quân Karluk. Trong lúc nguy cấp, Cao Tiên Chi liều chết đánh mở vòng vây thoát ra cùng một nhóm binh sĩ trở về, còn hơn nửa quân Đường bị bắt làm tù binh. Trong số những người bị bắt có cả thợ làm giấy, những tù binh này đã truyền lại nghề này cho người bản địa; từ đó nghề làm giấy được truyền từ Trung Quốc sang các nước Ả Rập rồi sau đó truyền sang phương Tây[7].